याद रखें" या एक ही पास में विश्लेषण करें। यह विंडो भाषा कार्यों, जैसे कि अनुवाद, संक्षेपण या बातचीत में सामंजस्य बनाए रखने और संदर्भ को समझने के लिए बहुत महत्वपूर्ण है।

एक संदर्भ विंडो का आकार एआई मॉडल की वास्तुकला के आधार पर भिन्न हो सकता है। उदाहरण के लिए, कई लोकप्रिय LLMs में संदर्भ विंडो कुछ सौ से लेकर कई हजार टोकन तक होती है। यह सीमा का तात्पर्य है कि जब इनपुट पाठ संदर्भ विंडो के आकार से अधिक हो जाता है, तो मॉडल केवल हाल के टोकन पर विचार करेगा, संभावित रूप से पाठ के पिछले भागों से महत्वपूर्ण जानकारी को खो देगा।

संदर्भ विंडो के बारे में प्रमुख बिंदुओं:

• परिभाषा: संदर्भ विंडो वह संख्या है जो एक एआई एक बार में विचार कर सकता है।
• संगति: एक बड़ी संदर्भ विंडो लंबा पाठ पढ़ने में बेहतर समझ प्रदान करती है।
• सीमाएं: संदर्भ विंडो को पार करना पहले का संदर्भ खोने का अर्थ है, जो आउटपुट गुणवत्ता को प्रभावित करता है।

लंबाई सीमाओं का होना

AI मॉडलों में टोकनाइजेशन और संदर्भ विंडो में लंबाई की सीमाओं के कई कारण हैं:

1. गणनात्मक सीमाएँ

LLMs को पाठ को संसाधित करने के लिए पर्याप्त गणनात्मक संसाधनों की आवश्यकता होती है। संदर्भ विंडो जितनी बड़ी होगी, मॉडल को उतना ही अधिक डेटा को संभालना पड़ेगा, जिससे गणनात्मक लोड बढ़ जाता है। इससे प्रसंस्करण समय लंबा हो सकता है और ऊर्जा की खपत अधिक हो सकती है, जिससे अत्यधिक बड़ी संदर्भ विंडो के साथ काम करना अप्रभावी हो जाता है।

2. मेमोरी प्रतिबंध

AI मॉडल की सीमा है। प्रत्येक संसाधित टोकन मेमोरी का उपभोग करता है, और जैसे-जैसे टोकनों की संख्या बढ़ती है, आवश्यक मेमोरी की मात्रा भी बढ़ती है। यह सीमा यह सुनिश्चित करने के लिए संदर्भ विंडो का कार्यान्वयन आवश्यक बनाती है कि मॉडल बिना अपनी मेमोरी सीमाओं को पार किए प्रभावी तरीके से कार्य कर सकें।